Alexa le dijo a un niño que hiciera un ‘desafío’ potencialmente letal

Amazon confirmó el incidente y dice que ha solucionado el «error» que generó un aviso peligroso.

Alexa de Amazon le dijo a un niño que tocara con un centavo las clavijas expuestas de un cargador de teléfono conectado a la pared, según un padre que publicó capturas de pantalla de su historial de actividad de Alexa que muestran la interacción (a través de Bleeping Computer ). El dispositivo aparentemente sacó la idea del desafío de un artículo que lo describía como peligroso, citando informes de noticias sobre una supuesta tendencia de desafío en TikTok.

Imagen: @ klivdahl / Twitter

Según la captura de pantalla de Kristin Livdahl, Echo respondió a «dime un desafío que hacer» con «Aquí hay algo que encontré en la web. Según ourcommunitynow.com: El desafío es simple: conecte un cargador de teléfono a la mitad de su recorrido en un tomacorriente de pared, luego toque con un centavo las clavijas expuestas «.

En una declaración a la BBC , Amazon confirmó el comportamiento de Alexa y dijo: «Tan pronto como nos dimos cuenta de este error, tomamos medidas rápidas para solucionarlo». Livdahl tuiteó ayer que pedir un desafío ya no funcionaba. Al probar el mensaje con Alexa, no pudimos obtener un resultado similar hoy, e incluso pedir un desafío desde la web no generó respuesta o se extrajo de un grupo muy limitado.

Escucha esta Noticia:

Amazon no es la única empresa que tiene problemas al tratar de analizar la web en busca de contenido. En octubre, un usuario informó que Google mostraba consejos potencialmente peligrosos en uno de sus fragmentos destacados si buscaba en Google «¿Tuviste un ataque ahora qué?»: La información que mostraba era de la sección de una página web que describía qué no hacer cuando alguien estaba teniendo un embargo. En ese momento, The Verge confirmó el informe del usuario, pero parece que se corrigió en función de las pruebas que hicimos hoy (no aparece ningún fragmento cuando Google «tuvo un ataque, ahora qué»).

Los usuarios han informado otros problemas similares, aunque, incluyendo un usuario que dice Google dio resultados para HYP ortostática o tensión en la búsqueda de HYP ortostática er tensión, y otro que registró una captura de pantalla de Google que muestra un consejo terrible para consolar a alguien que está de duelo.

También hemos visto advertencias sobre comportamientos peligrosos amplificados para agrandar el problema de lo que era originalmente: a principios de este mes, algunos distritos escolares de EE . UU . Cerraron después de que se perpetuaran informes sobre amenazas de disparos en TikTok . Resultó que la tormenta de fuego en las redes sociales fue causada abrumadoramente por personas que hablaban de amenazas , mucho más que cualquier amenaza que pudiera haber existido. En el caso de Alexa, un algoritmo seleccionó la parte descriptiva de una advertencia y la amplificó sin el contexto original. Si bien el padre estaba allí para intervenir de inmediato , es fácil imaginar una situación en la que ese no sea el caso o en la que la respuesta compartida por Alexa no sea tan obviamente peligrosa.

Livdahl tuitea que aprovechó la oportunidad para «pasar por la seguridad en Internet y no confiar en lo que lees sin investigación y verificación» con su hijo.

Amazon no respondió de inmediato a la solicitud de comentarios de The Verge .

Fuente: theverge